Cresce o Escândalo da Pornografia Deepfake em Escolas da Coreia do Sul

BBC

Mais de 500 instituições são afetadas por essa tecnologia letal

Um novo escândalo na Coreia do Sul expõe como a tecnologia de deepfake está sendo utilizada de forma devastadora, especialmente contra jovens estudantes. De acordo com investigações recentes, a circulação de pornografia falsificada por meio de deepfakes está afetando crianças e adolescentes, gerando enormes traumas e preocupações em toda a sociedade.

No último sábado, uma mensagem no Telegram chocou Heejin, uma estudante universitária sul-coreana. “Suas fotos e informações pessoais vazaram. Vamos conversar” foi o início do pesadelo. Ela recebeu imagens de seu rosto, manipuladas com tecnologia de deepfake, anexadas a corpos realizando atos sexuais. Heejin, apavorada, não respondeu, mas a onda de imagens não cessou.

A pornografia deepfake, que combina o rosto de uma pessoa real com corpos falsificados em situações sexualmente explícitas, está se proliferando em mais de 500 escolas e universidades do país. A jornalista Ko Narin, que expôs essa situação em sua reportagem, descobriu que grupos de bate-papo no Telegram estão criando e compartilhando essas imagens, utilizando inteligência artificial para transformar fotos comuns em pornô digital instantaneamente.

As consequências emocionais são devastadoras. Vítimas como Heejin e muitas outras relatam um intenso trauma e culpa, questionando suas ações nas redes sociais. O que se observa é uma pressão social para que elas se recalquem, enquanto a plataforma que facilita esse crime, o Telegram, é acusada de negligência.

Ativistas e jornalistas estão em campo, desmascarando a quantidade de adolescentes, muitas vezes com menos de 16 anos, que estão se tornando vítimas neste ciclo cruel de exploração. “Fiquei chocada com o quão sistemático e organizado era o processo”, revelou Ko, ao se deparar com grupos de chat dedicados a compartilhar imagens de mulheres.

A polícia sul-coreana iniciou investigações, buscando responsabilizar o Telegram, que já enfrentou alegações similares na França. No entanto, a resistência do aplicativo em regular ou permitir investigações efetivas levanta questões sobre a responsabilidade das plataformas digitais na proteção de seus usuários. Na esteira de uma crise que tem raízes profundas no sexismo estrutural e na cultura da misoginia, a possibilidade de um novo escândalo de abusos parece iminente.

A luta pela justiça segue, com grupos de direitos das mulheres exigindo uma resposta mais forte do governo e uma fiscalização mais rigorosa sobre plataformas que permitem esses abusos. Enquanto compreendemos a extensão dessa crise, é evidente que a solução passa por uma maior educação e conscientização sobre os perigos da pornografia deepfake e suas consequências devastadoras para as vítimas.

A crise da pornografia deepfake na Coreia do Sul é um grito por justiça e igualdade. A sociedade deve se unir para exigir mudanças, não só no comportamento dos perpetradores, mas também na forma como a tecnologia é regulada. Precisamos levantar nossas vozes e exigir uma mudança cultural que proteja todos, especialmente os mais vulneráveis.